Interleaved Reasoning

Interleaved reasoning は、interleaved thinking より広い研究概念であり、「最初にすべて考えてから答える」のではなく、「答えながら、あるいは解答途中に推論を挿入しながら進む」方式を指す語として使われます。2025年の “Interleaved Reasoning for Large Language Models via Reinforcement Learning” では、従来の長い chain-of-thought が time-to-first-token を押し上げるのに対し、thinking と answering を交互に行うことで、より早く出力を開始しつつ性能も維持・改善できる可能性が論じられています。ここで interleave されるのは、推論とツール行為ではなく、推論と回答生成そのものです。したがって、この概念は agent 的な外部行為を必須とせず、純粋に出力系列の内部構造として「途中で考える」ことを捉えるための語だと言えます。